Dương Tố văn võ song toàn, ông ta giúp Chu Vũ Đế làm chiếu thư, đặt bút là thành chương, lời văn và ý nghĩa đều hay. Ông đã từng làm một bài thơ dài 700 chữ thuộc thể ngũ ngôn tặng cho Thứ sử Phiên Châu Tiết Đạo Hành, lời thơ thật hùng hồn, khoáng đạt; từng có 10 quyển Văn tập. Võ công của Dương Tố cũng hơn người thường, ông ta là một trong những trọng thần khai quốc của triều Tùy. Năm Đại Tượng đầu tiên triều Bắc Chu (580), Tổng quản Tương Châu Uất Trì Quýnh, Thứ sử Vinh Châu Vũ Văn Trụ... liên kết mang quân chống Dương Kiên tranh đoạt chính quyền Bắc Chu, Dương Tố được bổ nhiệm Đại tướng quân, đánh bại Trụ, Quỳnh, sau khi phá xong địch, ông nhậm chức Tổng quản Từ Châu.

Trong chiến dịch chinh phạt nhà Trần, Dương Tố làm Tổng quản Tín Châu, đóng bản doanh ở Vĩnh An, cho đóng chiến thuyền lớn có tên là "Ngũ Nha", bên trên cho cất lầu 5 tầng, cao trên trăm thước, chở 800 binh sĩ. Chiến thuyền thứ hai có tên là "Hoàng Long", chở được trên 100 binh sĩ. Ngoài ra còn có "Bình Thừa", "Trách Mãnh" là các chiến thuyền gọn nhẹ, chạy nhanh. Năm 589 cất quân đánh Trần, Dương Tố được phong Nguyên soái, thống lĩnh tất cả các chiến thuyền theo dòng sông xuôi về phía đông, thế như chẻ tre, đánh bại tướng Trần Thích Hân tại Tam Hiệp, rồi lại đánh bại nội sử Lữ Trọng Túc tại Kỳ Đình (nay thuộc phía Bắc thành phố Nghi Xương, tỉnh Hồ Bắc). Quân Trần đóng ở ven sông chưa đánh đã hàng. Dương Tố dẫn đại quân đến Hán Khẩu họp quân cùng Hiến Vương Dương Tuấn hoàn thành nhiệm vụ khống chế quân lực phía Tây của nhà Trần. Không lâu sau, ở Giang Nam có phản loạn, Dương Tố lại phụng mệnh đi dẹp. Đến nơi thì quân phiến loạn tan vỡ, Giang Nam được bình định. Khi ban thưởng, Dương Tố được thăng chức Thượng thư Hữu bộc xạ, cùng với Tả bộc xạ Cao Dĩnh nắm giữ triều chính, địa vị rất lớn.